1. Obliczenie preedykcji dla wybranej obserwacji

2. Wyliczenie dekompozycji predykcji modelu dla obserwacji z punktu 1.

Możemy zauważyć, że brak wcześniejszych anulowań rezerwacji ma w tym wypadku największy wpływ na predykcję. Mimo to, model jest w stanie, na podstawie innych czynników, pozytywnie przewidzieć ostateczny rezultat (sprzeczny z wpływem dominującej zmiennej). Widzimy jednak, że wpływ tej zmiennej jest istotny i wpływa na brak pewności w predykcji modelu.

3. Porównanie dekompozycji LIME dla różnych obserwacji

Co ciekawe przy wyjaśnianiu z użyciem predicts parts brak wcześniejszego anulowania było dopiero 7 z kolei zmienną. W tym wypadku jest wyraźnie dominująca i mimo odmiennego wpływu innych zmiennych przeważyła ona ostateczną predykcję modelu. Wizualnie wydawać by się mogło, że zmienne wpływające na predykcję=1 przeważą, lecz ostateczny wynik jest inny.

Również w tym wypadku brak wcześniejszej anulacji ma zdecydowanie większy wpływ przy użyciu metody LIME niż predict parts. Zauważalny również jest wzrost znaczenia kraju pochodzenia osoby skłądającej rezerwację. Choć znaczenie zmiennej required_car_parking w obu przypadkach miało jeden z największych wpływów na predykcję. Mimo znacznego, przeciwnego do predykcji modelu, wkłądu required_car_parking, model ostatecznie z prawdopodobieństwem równym 1 przewiduje brak anulowania rezerwacji.

W tym wypadku także znacząco wzrósł wkład previous_cancellations w porównaniu do metody predict parts. Możemy jednak zauważyć, że tym razem zmienna ta nie zaważyła na końcowej predykcji modelu, co więcej prawdopodobieństwo przeciwnego do wkładu tej zmiennej wyniku jest równe 1. Możemy również zauważyć znaczący wzrost kraju pochodznia, tak jak w przypadku poprzedniej obserwacji. Co ciekawe porównując do obserwacji x_1 wydaje się, że mamy tu większy wpływ na predykcję=0, lecz ostatecznie dostajemy predykcję=1 z prawdopodobieńśtwem=1, co jest bardzo zaskakujące (porównując wykres i tabelkę dla obu obserwacji). Porównując wkłady kolejnych zmiennych w obu przedstawionych obserwacjach, możemy zauważyć, że przy takich samych wartościach wkład w ostateczny wynik jest bardzo do siebie zbliżony, lecz nie identyczny. Wydaje się więc, że lime jest stabilną metodą.

Wnioski: